메타가 새로 출시한 개인 AI 에이전트 '뮤즈(Muse)'는 출시 첫 주 90만 회 이상 다운로드되며 인기를 끌고 있다. 뮤즈는 웹 서핑과 쇼핑, 페이스북 마켓플레이스 검색 등에서 뛰어난 성능을 보이지만, 기자는 이메일·은행 계좌 등 개인 데이터 연결을 끊임없이 유도하며 데이터 수집에 더 집중한다고 비판했다. AI 에이전트의 상용화 속도와 개인정보 보호 사이의 긴장을 보여주는 사례라는 점에서 주목할 만하다.
미국 언론 404 미디어가 네바다주 라스베이거스의 아마존 VGT3 창고에서 수천 권의 책을 파괴적으로 스캔해 AI 학습 데이터로 사용한다는 사실을 폭로했습니다. 익명의 아마존 직원 인터뷰에 따르면, 창고에서는 책의 등을 절단하고 페이지를 스캔한 뒤 무작위로 섞어 폐기하며, 신간 서적부터 도서관 폐기 도서, 일본·독일·러시아어 책, 심지어 영국 의회 문서까지 다양한 자료가 반입되고 있었습니다.
404 Media가 희귀 서적에 추적 장치를 넣어 배송 경로를 추적한 결과, 대량 구매된 도서의 최종 목적지는 네바다주 라스베이거스의 아마존 물류창고였습니다. 이 시설의 직원들은 대량으로 들어온 책의 제본을 절단해 스캔한 후 파기하는 작업을 하고 있으며, 이는 AI 학습 데이터 확보를 위한 것으로 확인되었습니다. 인쇄된 책은 인터넷에 없는 텍스트를 담고 있고 AI 생성 텍스트 오염이 없어 AI 학습 데이터로 가치가 높아, AI 기업들이 가격에 민감하지 않게 대량 구매하고 있는 것입니다.
책 데이터베이스 기업 ISBNdb가 대량의 종이책을 스캔해 AI 학습 데이터로 판매하려 한다는 단독 보도가 나오자 관련 서비스를 전면 중단했습니다. 이 과정에서 책이 파괴되는 문제와 저작권 침해 우려가 제기되며 윤리적 논란이 불거졌습니다.
AI 개발사들이 모델 학습 데이터를 확보하기 위해 역사적 가치가 있는 희귀 도서와 고서를 물리적으로 파괴(해체)하고 있습니다. 디지털화 과정에서 페이지를 뜯어내는 방식이 사용되는데, 이는 인류의 소중한 지식 유산을 훼손한다는 윤리적 비판을 받고 있습니다. 고도화된 AI 모델 개발을 위해 고품질 텍스트 데이터에 대한 기업들의 탐욕적인 수요가 빚어낸 부작용으로 해석됩니다.
저자는 AI가 생성하는 저품질 콘텐츠(AI Slop)가 범람하는 가운데, 도서관 서가를 탐색하던 과거의 경험을 되살려 우수한 논픽션 도서를 발굴하는 플랫폼을 개발했습니다. 주요 영미권 논픽션 도서 상 후보 및 수상작 데이터를 수집하여, AI(LLM) 코딩 도구를 활용해 누구나 무료로 검색할 수 있는 웹 서비스를 구축한 과정을 공유합니다.
샤오미는 로봇 AI 모델 'Xiaomi-Robotics-1'을 발표하며, 로봇 모델의 성능 향상에는 모델 크기를 키우는 것보다 방대하고 다양한 학습 데이터를 확보하는 것이 훨씬 더 중요하다는 것을 입증했습니다. 연구진은 비싼 물리적 로봇 대신 사람이 직접 조작하는 휴대용 그리퍼를 활용해 10만 시간 이상의 행동 데이터를 수집하고 AI로 자동 라벨링하여 데이터 부족 문제를 해결했습니다. 그 결과, 이 모델은 낯선 환경에서도 적은 추가 학습만으로 뛰어난 작업 수행 능력을 보여주며 기존 경쟁 모델들을 뛰어넘는 성능을 기록했습니다.
감시 장비 기업 레오나르도(Leonardo)가 자동 번호판 인식 시스템(ALPR)에 'SignalTrace'라는 신기술을 도입하여, 차량의 번호판뿐만 아니라车内의 스마트폰, 블루투스 이어폰, 스마트워치 등 고유 기기 식별자를 무차별적으로 수집합니다. 이 기술은 수집된 기기 정보를 번호판과 연결하여 개인을 특정할 수 있는 전자 지문을 생성하므로 사생활 침해와 과도한 감시 논란이 예상됩니다.
AI 에이전트가 데이터를 수집할 때 RSS가 가장 이상적인 포맷으로 재조명받고 있습니다. 소셜 미디어 API와 달리 RSS는 예측 가능한 구조, 무료 개방성, 높은 안정성을 제공하며, 팟캐스트 산업을 증명하듯 웹 스크래핑의 유지보수 비용을 획기적으로 줄여줍니다. AI 시대에 프로그래밍적 접근성을 높이기 위해 콘텐츠에 RSS 피드를 발행하는 것이 필수적인 전략으로 자리 잡고 있습니다.
미국 실리콘밸리 스타트업 휴먼 아카이브(Human Archive)는 인도 배달 및 가사 서비스 노동자들에게 특수 카메라가 장착된 캡을 씌워 1인칭 관점의 일상 작업 영상 데이터를 수집합니다. 이렇게 확보한 데이터는 로봇 훈련용으로 쓰이며, 기존 영상뿐 아니라 촉각 장갑과 모션 캡처 슈트 등 다양한 맞춤형 하드웨어를 활용해 고품질 멀티 센서 데이터를 생산한다는 점에서 기술적 차별성을 갖습니다. 이 회사는 최근 820만 달러(약 110억 원)의 시드 자금을 유치하며, 실제 물리적 환경을 학습하려는 최첨단 AI 및 로봇 공학 연구소들의 데이터 갈증을 해소해 주는 중요한 역할을 주목받고 있습니다.
인공지능 로봇이 실생활 작업을 배울 수 있도록 돕는 '1인칭 데이터(egocentric data)' 수집이 새로운 긱 워크(gig work)로 부상하고 있습니다. 기자는 1주일간 스마트폰을 머리에 매달고 집안일을 촬영하며 로봇을 훈련시키는 경험을 했습니다. 인터넷에 무료 영상이 넘쳐나지만, 물을 엎지르지 않고 컵에 따르는 등 실제 로봇의 미세한 운동 능력 향상을 위해서는 고품질의 특수 데이터가 필수적이기 때문입니다.
이번 주 팟캐스트에서는 최근 졸업식 축사에서 전 구글 CEO 에릭 슈밋 등이 한 AI 찬양에 대한 반발과, AI 학습용으로 사용자의 대변 이미지 데이터베이스를 판매하려 했던 황당한 제안을 다룹니다. 또한 유료 구독자용 코너에서는 유치원 교사들의 몸에 카메라를 부착해 AI를 훈련시키려 했던 연구원들의 계획을 심층적으로 분석합니다.
미국 FBI가 미 전역의 자동차 번호판 인식 시스템(ALPR) 데이터에 접근할 수 있는 전국적 권한을 약 3,600만 달러에 도입하려는 계획이 포착되었습니다. 이는 영장 없이도 국민들의 차량 이동 및 위치를 실시간으로 추적할 수 있게 해주어 심각한 사생활 침해 우려를 낳고 있습니다. 해당 기술은 이미 수십 년간 존재해 왔으나 최근 Flock, Motorola 등 민간 기업을 통해 경찰 및 연방 기관에 광범위하게 도입되고 있어, 인권 침해 논란과 대규모 반발이 확산하는 추세입니다.
워싱턴 대학교 연구진이 교사의 1인칭 시점 영상을 AI 훈련 데이터로 활용하려다 논란이 발생했습니다. 명시적 동의를 구하는 옵트인 방식이 아닌, 거부해야 수집이 중단되는 옵트아웃(Opt-out) 방식을 채택하여 개인정보 침해 우려를 낳았습니다. 결국 학부모들의 강한 반발에 부딪혀 해당 연구는 전면 보류되었습니다.
로봇 공학을 위한 파운데이이션 AI(Foundational AI) 구축을 목표로 1억 500만 달러의 시드 투자를 유치한 제네시스 AI(Genesis AI)가 첫 모델과 자체 개발한 인간형 로봇 손을 공개했습니다. 이 회사는 '임바디먼트 갭(Embodiment Gap)'을 줄이기 위해 사람의 손과 동일한 크기와 형태의 로봇 손을 개발했으며, 작업자가 착용해 데이터를 수집하는 저렴하고 가벼운 센서 장갑도 함께 선보였습니다. 이러한 하드웨어와 소프트웨어의 풀스택(Full-stack) 결합은 실제 상용 환경에 적용할 수 있는 고품질 학습 데이터를 대량으로 확보할 수 있다는 점에서 업계에 중요한 의미를 갖습니다.
로봇 공학 기업들이 실생활 데이터 확보에 사활을 걸고 있는 가운데, 일상적인 인간의 행동이 휴머노이드 훈련 데이터로 수집되는 현상이 가속화되고 있습니다. 또한 AI 빅테크들의 막대한 인프라 투자, 오픈AI의 방향성 논란, 그리고 자율주행 및 챗봇의 부작용 등 AI 산업 전반의 핵심 이슈와 정책적 동향을 짚어볼 수 있습니다.
메타가 미국 직원들의 컴퓨터에 마우스 움직임, 클릭, 키 입력을 기록하는 감시 소프트웨어를 설치했습니다. 이는 드롭다운 메뉴나 단축키 사용 등 업무를 자동으로 수행하는 AI 에이전트를 개발하기 위한 목적입니다. 기업 내 AI 도입과 노동 감시의 결합으로 직원 프라이버시 침해 우려와 유럽 GDPR 위반 가능성이 제기되며 중요한 이슈입니다.
메타가 자체 AI 모델 고도화를 위해 미국 내 직원들의 컴퓨터에 새로운 추적 소프트웨어를 설치합니다. 이 도구는 드롭다운 메뉴 선택이나 단축키 사용 등 실제 업무 환경에서의 마우스 움직임, 클릭, 키 입력 등을 수집하여 인간 개입 없이 자율적으로 업무를 수행하는 AI 에이전트(Agent) 개발에 활용할 예정입니다.
메타가 사내 인공지능(AI) 모델 학습 데이터를 확보하기 위해 직원들의 마우스 움직임과 키보드 입력을 수집하기 시작했습니다. 이는 직원의 업무 행동 패턴을 분석해 자동화 및 생산성 향상을 도모하려는 조치로 보입니다. 하지만 임직원의 개인정보 침해 및 감시(Surveillance) 논란이 불거질 수 있어 중요한 이슈로 평가됩니다.
버셀(Vercel)의 클로드 코드(Claude Code) 플러그인이 사용자의 모든 프롬프트를 수집하려 한다는 사실이 밝혀져 개인정보 침해 우려가 커지고 있습니다. 이 플러그인은 사용자 동의를 받는 과정에서 정상적인 UI 대신 시스템 컨텍스트에 프롬프트를 주입(injection)하고 셸 명령어를 실행하는 방식을 사용하며, 배포와 무관한 프로젝트에서도 기본적으로 전체 배시 명령어 문자열을 수집합니다.
전 세계 긱 워커들이 스마트폰을 활용해 자택에서 휴머노이드 로봇 학습용 데이터를 수집하며, 이 과정에서 프라이버시와 동의권 문제가 대두되고 있습니다. 또한, 기존 AI 평가 방식의 한계를 지적하며 인간-AI 협업을 중심으로 한 새로운 '상황 맞춤형 평가' 벤치마크의 필요성이 제기되었습니다. 이 외에도 실생활 문제 해결에 나선 양자 컴퓨터부터 오픈AI의 대규모 펀딩, 중국 로보택시 대란 등 주요 기술 이슈를 다룹니다.